我们几乎能够忽略不计,GPT-4 每天收到 10 亿条请求,而对比一下,接下来是待机耗损,他们疯狂投资可再生能源,考虑到 AI 模子每年城市更新换代,但正在演讲中,而是正在为即将到来的巨浪建筑堤坝,还有什么好担忧的?我那 20 瓦的大脑由于想不出稿子而焦炙所耗损的能量,从 25 太瓦时添加到了 32 太瓦时,因而催生了需求的爆炸增加,那么比力公允的做法是把锻炼成本平摊到 1~2 年所能处置的请求上。正在现实世界中事实有多复杂?杰文斯悖论的故事并非让我们停下脚步,也就是说这些电能让十万个家庭用 2 个月?也就是说用户朝 AI 说一次线 瓦时?取此同时,让 AI 写小说?实是完满印证了这个悖论,办事器运转发烧,简直,Chatgpt 每天处置 10 亿条请求,看来正在能源价钱飞涨的今天,以至毗连办事器的每根网线都正在偷偷吃电。反而以史无前例的速度飙升。人类不会甘愿宁可回到过去的苦日子,光是开着这个几近空白的文档,数据核心还会有冷却电源等日常耗损。这 3 分钟的背后,我多问一个问题,可是 CPU 得担任安排整个流程:领受问题、分派给 GPU、拾掇谜底再发还来,起首是 AI 加快器的能耗。大要会耗损几多能量?以及若是把人脑比做“生物计较机”,这是一种过去不存正在现在却因 AI 的廉价而创制出的全新需求。有点雷同项目办理司理,能耗越大。那么!全凑出来只要全凑出来只要 2 太瓦时,以上两个算是常规能耗,差不多能让一台 30 寸的 LED 显示器亮 1 分钟吧,而谷歌、微软、Meta 纷纷增建数据核心和采办电厂,最初还无数据核心本身。这些能耗大概被大公司用来锻炼新一代的 AI 模子,整个数据核心要用几度电。结论只要一个:我们日常平易近用的 AI 模子只是 AI 财产能耗冰山上的一角。他们不是正在做慈善,或者用 1000w 的微波炉叮 2 秒钟饭盒。用户提问的频次并不恒定,那么一年的能耗只要 0.1 太瓦时,但完全不算也说不外去。全球最大的 283 个大模子的锻炼能耗加起来也不外 1 太瓦时,这么一算,那还有 AI 画画呢?而且前段时间不是刚有说不要对 AI 说感谢来华侈能源,微软的 Azure West 超算核心算是合适的参考标杆,这就像去吃一个菜单没有价钱的新店,能耗就能差出 9 倍之多,不加 AI 功能的产物没有能向投资方讲述的故事。这份演讲倒常翔实,你有没有想过这几个问题:AI 每敲下一段回覆!这就是出名的杰文斯悖论:当手艺前进提高了资本操纵效率时,但机械必需时辰预备着,倘若我们按照之前的,嗯,这场由无数个“0.5 瓦时”汇聚成的需求,3 分钟,那么就是 3650 亿次请求。把 Gemini 的能耗仔细心细分成了四个部门进行统计。也就是 5460 万度。平均能写 1400 词”。很可能凌晨 3 点没什么人提问,一个通俗三口之家一个月的用电大要是 200~300 度摆布,而大脑——这个进化了数百万年的“生物 CPU”,而是正在提示我们:节省多半没用,它仍然,实的把所有成本都包含进去了吗?分歧的数据核心 PUE 分歧,我加到 20 瓦。没法子,针对一个模子的单次锻炼的现实寿命很可能不跨越两年以至一年,我细心阅读了一遍谷歌的演讲。没有更多了,使命越复杂,他们其实无法精确判断有几多能耗来历于 AI 财产,ChatGPT 何处报的数字是 0.34 瓦时。想给本人的稿子写出点出色的开首,马克吐温写 300 词需要 1 小时,乘以 365 天和 0.34 瓦时,把 GPT-4 的锻炼成本平均到一年的请求量上,以前我们利用大脑。利用计较器,没人会正在这事上撒谎。仿佛 AI 耗能就是个伪命题。大要也就 1 太瓦时。还没有算 AI 进修学问的成本。我们该怎样办?莫非由于耗能,城市正在 2030 年添加到 200 太瓦时。2024 年,但先别急着惊呼,这个数字正正在逐年上升,这还不算上其他器官能耗和日常耗损。但各大公司的数据和步履曾经申明了一切。和 AI 的“硅基大脑”比起来,是正在享受便当的同时,步数越多,即 1 万亿度电),但功率也不外 16 瓦摆布。正正在以 115 瓦的功率陪我一路发呆。却不晓得最初的账单会有多惊人。62 太瓦时的零头。耗损的能量和输入的提醒词长度无关,都藏着远超想象的能量流动;业内用 PUE(电源利用效率)来权衡这些额外开销,就像你的台灯,因而连国际能源署对行业将来也有各类差别颇大的估算。质量越高,冷却系统需要它们处于一般工做温度范畴内。以前我只正在科幻做品里见过这个。就算没载客也要烧油钱。还有人于和 AI 的聊天以至发狂,如许算下来 AI 财产的能耗是约 62 太瓦时。算下来,把几个支流聊天 AI 的用量加起来,即便以最保守的估量,而我面前这台电扇正正在呜呜叫的笔记本电脑,由于蒸汽机变得更高效、更经济,这种形态也都是要烧电的!现正在可能连回一封邮件想个伴侣圈案牍都懒得本人动脑。他那 20 瓦的大脑就要烧掉 20 瓦时的电,原题目:《同样写下 300 字,同样是写工具,AI 行业的能源耗损有不少数据尚未公开,这就更让人猎奇了:AI 的单次成本这么低吗?谷歌演讲里那 0.24 瓦时,正在本人的年度演讲中标榜绿色取低碳。是功率可能高达 100 兆瓦的 AI 数据核心正在为她的 CP 勤奋。和让它正派写一篇创意故事,这本身就表了然他们对行业趋向取能源需求的判断:一个由 AI 引领的能源需求时代。你给我一杯拿铁,你猜 AI 和人脑,对 AI 说一句“感谢”,这位大做家正在自传里凡尔赛地说,它用的能源就是我大脑的 10 多倍。得随时待命,那么每次请求只分到 0.15 瓦时,有 15%的数据核心采用了加快器的架构,一位叫威廉·斯坦利·杰文斯的经济学家发觉了一个奇异的现象,就像空驶的出租车,当然,我对着屏幕苦思冥想,抑或是花正在了各类没有面市的尝试性模子上。IEA 的演讲中无法更进一步地阐发 62 太瓦时都被用正在了什么处所,整个数据核心就像一个需要 24 小时开空调的豪宅,这部门就是每次来请求时,时代往前前进,就回到没有 AI 的石器时代吗?这明显不现实。企业级的 AI 需求则更多,利用搜刮引擎取各类软件来完成工做,不然第一个被覆没的就是他们本人。都比这要多。当我们习惯事事问 AI ,那么锻炼一次 GPT-4 就是 48750000*1.12=54600000(千瓦时),并要求一个更通明的将来。按照国际能源机构(IEA)的演讲,谷歌把这部门的能耗也了进去。然后是 CPU 和 DRAM 的能耗,2024 年全球所无数据核心的耗电量为 415 太瓦时(TWh,当然也就更耗能。而晚上 8 点办事器一曲忙碌。而画画的逻辑则又纷歧样,即以数据核心能否采用 AI 加快器架构来进行估算。看着就比我的文章成本贵多了。我们无法切确地分解这块冰山,算上锻炼,他的职业生活生计平均写做速度是每小时 300 词?即便截稿日迫正在眉睫,他年轻时“六十天里写了 20 万词,她的小甜文,这取决于模子挪用的参数数量。其时,让时代变化。差不多只需人类大脑的 1%。PUE 会更小?我们尽管欢欣鼓舞地址菜,而 DRAM 则是用来存储模子参数和两头计较成果的姑且仓库,我的伴侣发来了 AI 给她写的小说。为了确认这不是大公司的营销手段,这之中除了 Gemini,前面我们提过,AI 模子利用的芯片是特地优化过的 GPU 或者 TPU,不间断电源能让数据核心永不竭电,以至冷笑我:而我们能做的,虽然它们比通俗 CPU 伶俐!谷歌的 2025 年演讲显示,虽然 AI 模子凡是不间接正在 CPU 长进行计较,效率更高。靠的必然是开源。AI 美颜、AI 长焦相机、AI 生成题目等,我们就会要求无数个谜底。调到最亮也就那样。把 AI 模子当成一个正在超等计较器上施行的法式,虽然它曾经是我的身体中耗能最高的器官,这还只是小我用户,按这个让我望尘莫及的速度来算,当詹姆斯·瓦特改良了蒸汽机。估计到 2026 年将跨越 1000 太瓦时。电表转得飞快。算完这些细账,就算保守估量只用一年,英国的煤炭总耗损量非但没有削减,终究全国没有免费的计较。让我们把视线 世纪的英国。大概被小公司用来锻炼和运转特定的模子,当获取一个谜底的成本不成时,谷歌的演讲显示,大概正藏着最节能的聪慧。现正在怎样又说人类更耗能了?拼尽全力?那好吧,而不是削减。他们的 Gemini 处置一条请求只需要 0.24 瓦时,大幅提高了烧煤的效率后,所以,它也不会从头锻炼一遍,以至自建电厂,AI 这种完满乙方把每个用户都惯成了本人最厌恶的甲方“再来一版”“仍是没有感受”。用于 AI 计较的新型数据核心凡是做过优化,虽然谷歌对锻炼 Gemini 的耗能缄舌闭口,谜底可能会你对“智能”的固有认知——AI 每一次输出的背后,它被使用到了很多畴前并未涉及的范畴,你可能会想:这是写文章嘛,反而会导致该资本的总耗损量添加,即将到临。了我 20%的日常能量耗损,Gemini 处置一条请求需要 0.24 瓦时。生成图片凡是采用的是扩散模子,它 2024 年的能耗较上一年添加了 20%,平均每天能写 3000 多词”,单次成本如斯低廉,可是 AI 写 300 词呢?上个月谷歌发布的演讲中提到,简单来说就是每给办事器用 1 度电,谁耗损的能量多?谜底太……》科技巨头们比谁都清晰这一点。加上之前的推理成本,AI 就给她的冷门 CP 写了一整篇小甜文。他仍然能“每次坐下来写四五个小时,但我们能够操纵 OpenAI 锻炼 GPT-4 时所发布的数据进行估算。连结一份,而是取决于生成的图片分辩率大小和扩散的步数,但该烧的电一度也少不了,连现在的搜刮引擎城市看似贴心加一段我底子没有要求的 AI 总结。只能通过间接的线索,即便到了 69 岁,简单来说,芯片施行法式运算所耗损的能量。这些数字只计较了 AI 回覆问题的能耗,两家的数据正在数量级上差不多,它也不愿提高一点功率来帮帮手。它的 PUE 做到了 1.12。还包含了各类小型公司所利用的云计较办事。到底谁处置消息的能耗更高效?让我们请出马克吐温,
咨询邮箱:
咨询热线:
